1
00:00:20,400 --> 00:00:22,720
SIRENE GRÆLER

2
00:00:24,120 --> 00:00:27,000
En bil styrter
midt om natten.

3
00:00:31,560 --> 00:00:33,360
En kvinde er kørt ned.

4
00:00:34,720 --> 00:00:36,840
SUKKENDE

5
00:00:38,760 --> 00:00:41,800
Det er det første dødsfald af sin art
i verden...

6
00:00:45,400 --> 00:00:48,480
..en fodgænger dræbt af
en førerløs bil.

7
00:00:54,800 --> 00:00:57,240
Selvom køretøjet
<font color="

8
00:00:57,240 --> 00:00:59,480
ved hjælp af kunstig intelligens,

9
00:00:59,480 --> 00:01:02,000
der var en menneskelig operatør
bag rattet.

10
00:01:08,880 --> 00:01:12,920
For første gang nogensinde,
beslutningen skulle tages -

11
00:01:12,920 --> 00:01:15,680
hvem var skyld i dette styrt?

12
00:01:15,680 --> 00:01:18,480
Var det mennesket eller AI?

13
00:01:21,200 --> 00:01:25,640
<font color="
en maskine hinsides menneskets sind.

14
00:01:25,640 --> 00:01:30,760
I årtier har videnskabsmænd drømt
at skabe utrolige maskiner

15
00:01:30,760 --> 00:01:35,920
der kunne tale som os,
lær ligesom os, tænk som os.

16
00:01:38,080 --> 00:01:43,200
Men hvad vi ikke forestillede os
er den indvirkning, de ville have på os.

17
00:01:43,200 --> 00:01:46,000
<font color="
Jeg udforsker, hvad der sker

18
00:01:46,000 --> 00:01:49,120
når AI kolliderer med menneskeliv,

19
00:01:49,120 --> 00:01:54,240
grave historier langt mærkeligere end
vi nogensinde kunne have forestillet os.

20
00:02:19,800 --> 00:02:22,480
Jeg er professor Hannah Fry.
Jeg er matematiker,

21
00:02:22,480 --> 00:02:24,680
og jeg har brugt min karriere
<font color="

22
00:02:24,680 --> 00:02:27,320
teknologi kan transformere vores fremtid.

23
00:02:29,040 --> 00:02:32,560
Her i Phoenix,
en industri på flere milliarder dollar

24
00:02:32,560 --> 00:02:35,880
har potentialet
at redde millioner af liv.

25
00:02:35,880 --> 00:02:37,720
Det er mærkeligt.

26
00:02:37,720 --> 00:02:39,520
HUN KLIKER

27
00:02:39,520 --> 00:02:42,760
Vi er på nippet til
<font color="

28
00:02:42,760 --> 00:02:45,440
og førerløse taxaer
er nu en realitet

29
00:02:45,440 --> 00:02:47,800
i flere lande
rundt om i verden.

30
00:02:49,120 --> 00:02:50,760
Okay, bed om det.

31
00:02:50,760 --> 00:02:53,280
Du praier dem på en app.

32
00:02:53,280 --> 00:02:56,200
Åh! Elsker mine initialer på toppen.

33
00:02:56,200 --> 00:02:57,720
Det er min første gang
<font color="

34
00:02:57,720 --> 00:02:59,920
Arbejdet med Google i årevis.

35
00:02:59,920 --> 00:03:02,680
Har aldrig været i en førerløs bil.

36
00:03:02,680 --> 00:03:04,080
Forestille sig.

37
00:03:04,080 --> 00:03:05,600
Her er det!

38
00:03:06,640 --> 00:03:08,280
Hvor skal det stoppe?

39
00:03:10,320 --> 00:03:12,840
Hvor skal det stoppe?

40
00:03:12,840 --> 00:03:14,200
Der?

41
00:03:14,200 --> 00:03:16,360
Åh!

42
00:03:16,360 --> 00:03:18,760
Åh, det var godt klaret.

43
00:03:18,760 --> 00:03:20,480
<font color="

44
00:03:24,320 --> 00:03:26,200
Ingen i bilen.

45
00:03:26,200 --> 00:03:28,160
Start turen.

46
00:03:28,160 --> 00:03:30,040
Gå!

47
00:03:30,040 --> 00:03:33,120
HUN gisper og griner

48
00:03:33,120 --> 00:03:35,280
Det er ret nervepirrende!

49
00:03:35,280 --> 00:03:36,880
AUTOMATISERET STEMME: Vi gør det
al kørslen,

50
00:03:36,880 --> 00:03:41,600
så rør venligst ikke ved styretøjet
<font color="

51
00:03:41,600 --> 00:03:43,320
Det er grønt, men det bremsede.

52
00:03:43,320 --> 00:03:45,160
Åh, det drejer til højre.
Det er derfor.

53
00:03:48,320 --> 00:03:50,400
Jeg stoler sådan set ikke på det.
Jeg stoler ikke på det.

54
00:03:51,440 --> 00:03:53,680
Åh, vi skifter vognbane.

55
00:03:53,680 --> 00:03:56,000
HUN GRANER

56
00:03:58,800 --> 00:04:00,080
Det er ikke frygtsomt, er det?

57
00:04:01,960 --> 00:04:04,840
<font color="
at køre selv

58
00:04:04,840 --> 00:04:07,760
er intet mindre end mirakuløst.

59
00:04:07,760 --> 00:04:10,440
Bilen bruger en kombination
af sensorer

60
00:04:10,440 --> 00:04:13,280
at forstå, hvad der foregår
omkring det.

61
00:04:15,000 --> 00:04:18,920
Først kameraer -
god til at identificere vejskilte,

62
00:04:18,920 --> 00:04:22,440
<font color="
og andre biler,

63
00:04:22,440 --> 00:04:25,120
men de kæmper i dårligt vejr.

64
00:04:26,880 --> 00:04:30,400
Altså mange førerløse biler
har også radar,

65
00:04:30,400 --> 00:04:32,760
ofte indbygget i forkofangeren,

66
00:04:32,760 --> 00:04:36,160
som udsender radiobølger
der preller af genstande

67
00:04:36,160 --> 00:04:39,080
<font color="

68
00:04:39,080 --> 00:04:43,640
Det fungerer godt over lange afstande,
men ikke så godt tæt på.

69
00:04:44,800 --> 00:04:48,440
Det er derfor nogle førerløse biler
Brug også lidar,

70
00:04:48,440 --> 00:04:52,880
de snurrende cylindre du nogle gange
se på taget og siden af ​​bilen.

71
00:04:52,880 --> 00:04:55,160
Det er ligesom radar,
<font color="

72
00:04:55,160 --> 00:05:00,520
og er i stand til at opbygge en detaljeret
3D-billede af objekter i nærheden.

73
00:05:02,800 --> 00:05:05,080
Præcis men let forvirret

74
00:05:05,080 --> 00:05:09,360
af reflekterende overflader
som vinduer og skinnende bygninger.

75
00:05:10,920 --> 00:05:15,640
Det er sådan set indeni
computerens hjerne, så at sige.

76
00:05:15,640 --> 00:05:19,200
<font color="
hvad den tror er omkring dig.

77
00:05:19,200 --> 00:05:22,680
AI tager disse
tre uperfekte systemer,

78
00:05:22,680 --> 00:05:25,120
stykker sammen, hvad der faktisk er
derude,

79
00:05:25,120 --> 00:05:27,360
forsøger at forudsige
hvad der så vil ske

80
00:05:27,360 --> 00:05:31,680
og bestemmer hvordan bilen skal
<font color="

81
00:05:32,840 --> 00:05:36,360
Da jeg skrev om
disse ting for ti år siden,

82
00:05:36,360 --> 00:05:38,000
de var et forskningsprojekt.

83
00:05:38,000 --> 00:05:39,560
De var forstående
miljøet,

84
00:05:39,560 --> 00:05:43,400
fremme ingeniørarbejdet,
en slags tweaking af softwaren.

85
00:05:43,400 --> 00:05:45,360
<font color="
at de er blevet

86
00:05:45,360 --> 00:05:49,680
kommercielt tilgængelig,
at bare enhver kunne hylde en.

87
00:05:53,320 --> 00:05:56,240
Og snart kommer de endda
til Storbritannien,

88
00:05:56,240 --> 00:05:59,120
begyndende med de travle gader
af London.

89
00:06:01,280 --> 00:06:04,320
Den er god til at holde sig til
<font color="

90
00:06:07,880 --> 00:06:11,160
Det tror jeg faktisk, der er
ret meget at se frem til

91
00:06:11,160 --> 00:06:14,040
fra denne fremtid
med førerløse biler.

92
00:06:14,040 --> 00:06:16,080
Mennesker laver frygtelige chauffører.

93
00:06:16,080 --> 00:06:17,760
Og disse ting, de er ikke...

94
00:06:17,760 --> 00:06:19,320
De falder ikke i søvn
<font color="

95
00:06:19,320 --> 00:06:22,680
De kører ikke spritkørsel.
De får ikke road rage.

96
00:06:22,680 --> 00:06:25,480
Sådan, fint. Måske er de ikke
bliver perfekt,

97
00:06:25,480 --> 00:06:27,600
men der er mange muligheder

98
00:06:27,600 --> 00:06:30,840
for at vejene er meget sikrere end
de er i øjeblikket.

99
00:06:30,840 --> 00:06:34,360
<font color="
det er værd at forfølge.

100
00:06:35,840 --> 00:06:38,240
Men historien om, hvordan vi fik det
til dette punkt

101
00:06:38,240 --> 00:06:41,480
er præget af tragedie og tab.

102
00:06:44,360 --> 00:06:47,240
Der var en fodgænger
gå en cykel.

103
00:06:47,240 --> 00:06:49,240
En gang kom fodgængeren ind
færdselsbanen,

104
00:06:49,240 --> 00:06:51,480
<font color="

105
00:06:51,480 --> 00:06:53,400
Det var et selvkørende køretøj.

106
00:06:54,960 --> 00:06:57,360
Det var i den autonome tilstand
dengang.

107
00:06:57,360 --> 00:07:02,080
I Arizona, i 2018,
for første gang,

108
00:07:02,080 --> 00:07:04,760
nogen blev ramt
og dødeligt såret

109
00:07:04,760 --> 00:07:06,840
af en førerløs bil.

110
00:07:06,840 --> 00:07:09,600
<font color="
var den menneskelige backup-driver

111
00:07:09,600 --> 00:07:13,520
i det selvkørende Uber-køretøj
der ramte og dræbte Elaine Herzberg.

112
00:07:15,600 --> 00:07:18,080
Efter år med
undgå rampelyset,

113
00:07:18,080 --> 00:07:20,120
kvinden i centrum
af historien,

114
00:07:20,120 --> 00:07:23,080
<font color="
havde aftalt at møde mig.

115
00:07:24,680 --> 00:07:26,400
Hej! Hej, hvordan har du det?
God. Hvordan har du det?

116
00:07:26,400 --> 00:07:28,520
Vil du med ind?
Ja tak.

117
00:07:28,520 --> 00:07:31,400
Du har ikke talt i kameraet
om dette før, har du? Ingen.

118
00:07:31,400 --> 00:07:32,960
<font color="
Jeg ved det ikke.

119
00:07:32,960 --> 00:07:35,680
Jeg har en hel overflod af følelser
går igennem mig,

120
00:07:35,680 --> 00:07:38,520
men mit største problem
går igennem dette

121
00:07:38,520 --> 00:07:42,560
var ikke i stand til at afvise noget
eller endda forsvare mig selv.

122
00:07:42,560 --> 00:07:44,520
Det er som at få en chance
<font color="

123
00:07:44,520 --> 00:07:48,840
Ja, for jeg har beskæftiget mig med det
nu i, hvad, syv år?

124
00:07:48,840 --> 00:07:50,640
Så det er dig? Mm-hm. Ja.

125
00:07:50,640 --> 00:07:53,440
Og det er for at få dig
ind og ud af bygningerne.

126
00:07:53,440 --> 00:07:57,840
Rafaela fik job hos Uber i 2017,
ikke længe efter virksomheden

127
00:07:57,840 --> 00:08:02,080
<font color="
deres egne selvkørende biler.

128
00:08:02,080 --> 00:08:04,600
Jeg kan godt lide mange teknologiske ting.

129
00:08:04,600 --> 00:08:08,080
Selvkørende køretøjer
begyndte at dukke op.

130
00:08:08,080 --> 00:08:12,040
Jeg vidste, at Phoenix var ved at blive
et arnested for det,

131
00:08:12,040 --> 00:08:15,520
så jeg ville se autonome køretøjer
<font color="

132
00:08:15,520 --> 00:08:19,200
Det er jeg interesseret i,
så jeg gik hen og søgte.

133
00:08:19,200 --> 00:08:20,880
Jeg bestod alt med det samme.

134
00:08:20,880 --> 00:08:22,640
Så jeg var spændt. Mmm.

135
00:08:23,760 --> 00:08:26,360
Hendes opgave var at ride
i de selvkørende biler

136
00:08:26,360 --> 00:08:29,160
da Uber begyndte at teste
<font color="

137
00:08:29,160 --> 00:08:31,560
på Arizonas offentlige veje.

138
00:08:31,560 --> 00:08:33,680
Der var mange
ingeniører, kodere,

139
00:08:33,680 --> 00:08:35,440
men alle var super søde.

140
00:08:35,440 --> 00:08:38,040
Og du har denne chance for at se
den nye teknologi indefra.

141
00:08:38,040 --> 00:08:40,760
Ikke bare se det, jeg tester det
<font color="

142
00:08:40,760 --> 00:08:44,000
Jeg elskede mit job.
Jeg elskede absolut mit job.

143
00:08:44,000 --> 00:08:47,160
Da du sad i bilerne
i de tidlige dage,

144
00:08:47,160 --> 00:08:49,680
hvor gode syntes du de var
ved at køre?

145
00:08:49,680 --> 00:08:52,200
De var bedre end hvad jeg troede
<font color="

146
00:08:52,200 --> 00:08:55,240
Og det kommer også an på. Ligesom,
Uber-køretøjer i længst tid

147
00:08:55,240 --> 00:08:59,680
havde problemer med at overreagere
med ting i siden af ​​vejen.

148
00:08:59,680 --> 00:09:00,920
Og nogle byggerier er fantastiske,

149
00:09:00,920 --> 00:09:03,520
men så laver de endnu en opdatering
at prøve at ordne noget andet

150
00:09:03,520 --> 00:09:05,440
<font color="
gå galt.

151
00:09:05,440 --> 00:09:07,920
Og så ved man det bare ikke.

152
00:09:07,920 --> 00:09:10,960
Der er sket så meget for dig
siden det, ikke?

153
00:09:10,960 --> 00:09:12,000
Ja.

154
00:09:19,200 --> 00:09:21,920
I løbet af dets første testår
i Phoenix,

155
00:09:21,920 --> 00:09:25,720
Uber har tildelt to operatører
<font color="

156
00:09:25,720 --> 00:09:28,640
Okay, og vi engagerer os.

157
00:09:28,640 --> 00:09:31,760
Den ene kørte på passagersædet
at spore bilens ydeevne.

158
00:09:31,760 --> 00:09:35,520
På den bærbare computer kan jeg overvåge
meget af forudsigelsessoftwaren.

159
00:09:35,520 --> 00:09:37,760
Så jeg kan se, som
hvor bilen skal hen.

160
00:09:37,760 --> 00:09:41,240
<font color="
skulle logges på en computer.

161
00:09:42,800 --> 00:09:45,200
Den anden operatør
sad bag rattet

162
00:09:45,200 --> 00:09:47,760
og holdt øjnene på vejen.

163
00:09:47,760 --> 00:09:52,680
De forventedes at tage kontrollen
hvis AI'en i bilen ikke fungerede.

164
00:10:01,360 --> 00:10:05,560
Men et år til test,
<font color="

165
00:10:05,560 --> 00:10:08,240
Nu én operatør
måtte holde øje med vejen

166
00:10:08,240 --> 00:10:10,760
OG overvåge bilens handlinger.

167
00:10:12,280 --> 00:10:14,240
OK. Kom så.

168
00:10:14,240 --> 00:10:17,920
Denne beslutning om at skifte
til et enkelt menneske i bilen

169
00:10:17,920 --> 00:10:22,160
kom blot et par måneder før
Rafaelas styrt.

170
00:10:22,160 --> 00:10:25,600
<font color="
Jeg bliver stadig nervøs. Åh, virkelig?

171
00:10:25,600 --> 00:10:27,160
Ja. Derfor tøver jeg,

172
00:10:27,160 --> 00:10:30,840
fordi jeg bare prøver at lade være
et panikanfald. Jeg forstår.

173
00:10:30,840 --> 00:10:32,280
OK.

174
00:10:34,120 --> 00:10:37,200
Åh, undskyld.
Nej, undskyld ikke, tak.

175
00:10:37,200 --> 00:10:41,680
<font color="
Nej, jeg vil gøre det her.

176
00:10:41,680 --> 00:10:44,880
Er du sikker? Ja.
Okay, her går vi.

177
00:10:46,760 --> 00:10:49,520
Jeg vil ikke have min kørsel
at forstyrre dig.

178
00:10:49,520 --> 00:10:51,920
Nej, jeg er bare bekymret
du bliver trukket over

179
00:10:51,920 --> 00:10:55,160
<font color="
en typisk person.

180
00:10:55,160 --> 00:10:57,120
Kører jeg som en bedstemor?

181
00:10:57,120 --> 00:10:59,280
Nå, du kører ligesom
faktisk et selvkørende køretøj.

182
00:10:59,280 --> 00:11:00,720
Åh, virkelig?
Lige ved hastighedsgrænsen.

183
00:11:00,720 --> 00:11:02,760
DE GRNER

184
00:11:02,760 --> 00:11:04,960
Hver operatør fik tildelt en rute

185
00:11:04,960 --> 00:11:08,120
<font color="
igen og igen.

186
00:11:08,120 --> 00:11:10,280
Det kunne være monotont arbejde.

187
00:11:10,280 --> 00:11:12,840
Som den mest kedelige, jeg hadede
var denne

188
00:11:12,840 --> 00:11:16,520
gennem dette lille kvarter.
Du kommer ud, du går her.

189
00:11:16,520 --> 00:11:20,120
Så er det hele 20 miles
<font color="

190
00:11:20,120 --> 00:11:22,160
og så, bom, tilbage.

191
00:11:22,160 --> 00:11:24,720
Og det er alt, hvad det er.
Rundt og rundt...

192
00:11:24,720 --> 00:11:27,520
I otte timer. ..med bilen
kører selv. Mm-hm.

193
00:11:29,320 --> 00:11:33,440
Mennesker er ikke gode til at betale
<font color="

194
00:11:33,440 --> 00:11:37,160
Og med kun én operatør
overvågning af en gentagen rute,

195
00:11:37,160 --> 00:11:39,960
der var fare for
bliver distraheret.

196
00:11:41,320 --> 00:11:44,040
Men når det ikke var stille
på gaderne,

197
00:11:44,040 --> 00:11:47,000
der kunne være meget
for én person at gøre.

198
00:11:49,040 --> 00:11:50,600
<font color="
er der ikke?

199
00:11:50,600 --> 00:11:53,320
Ja, og det er det, vi tester.
Ja.

200
00:11:53,320 --> 00:11:55,640
Og du kan ikke forudsige
hvad nogen vil gøre.

201
00:11:55,640 --> 00:11:59,640
Så jeg ville altid tage den ud af
autonom tilstand i disse områder.

202
00:11:59,640 --> 00:12:02,560
Højre.
<font color="

203
00:12:02,560 --> 00:12:04,760
Men så lige pludselig,
de ændrede det.

204
00:12:06,320 --> 00:12:07,920
Men der er flere skærme

205
00:12:07,920 --> 00:12:09,960
at du konstant er
at skulle se på.

206
00:12:09,960 --> 00:12:13,200
Ja. Vi skulle
at trykke på knapper og indtaste koder

207
00:12:13,200 --> 00:12:14,760
<font color="

208
00:12:14,760 --> 00:12:16,680
Så du prøver at sætte noget
ind i iPad'en

209
00:12:16,680 --> 00:12:19,280
mens du skal være det
overvågning af vejen.

210
00:12:19,280 --> 00:12:20,320
Ja.

211
00:12:26,360 --> 00:12:32,720
Natten til den 18. marts 2018,
Rafaela var på sin sædvanlige testrute.

212
00:12:35,400 --> 00:12:37,200
<font color="

213
00:12:37,200 --> 00:12:41,360
og havde kørt i 19 minutter
uden hændelse.

214
00:12:48,520 --> 00:12:53,280
At 9.58pm,
det drejede til højre ad Mill Avenue.

215
00:12:58,320 --> 00:13:03,000
Samtidig begyndte en fodgænger
gå over Mill Avenue,

216
00:13:03,000 --> 00:13:05,240
skubber en cykel ved siden af ​​hende.

217
00:13:15,160 --> 00:13:19,520
<font color="
da køretøjet nærmede sig kvinden.

218
00:13:20,800 --> 00:13:25,520
Bilen burde have opdaget hende,
men det gjorde det ikke.

219
00:13:33,440 --> 00:13:36,920
Da Rafaela så op
og slog i bremsen,

220
00:13:36,920 --> 00:13:38,520
det var for sent.

221
00:13:38,520 --> 00:13:42,760
Bilen ramte kvinden
ved 39 mph.

222
00:13:44,120 --> 00:13:48,000
<font color="
var Elaine Herzberg.

223
00:13:48,000 --> 00:13:50,720
Hun blev ofte set på sin cykel
i området.

224
00:13:52,920 --> 00:13:56,440
Hun gav aldrig op.
Hun hjalp altid folk.

225
00:13:56,440 --> 00:13:58,520
Hun var sjov, sjov, sjov, sjov.

226
00:13:58,520 --> 00:14:01,640
Hvis du var hendes ven,
du følte ægte kærlighed fra hende.

227
00:14:01,640 --> 00:14:03,720
<font color="
hvad der skete med hende.

228
00:14:13,160 --> 00:14:14,960
Så det her er parken...
Det er parken. Højre.

229
00:14:14,960 --> 00:14:18,840
Jeg gjorde... Det spillested, det teater,
alle krydsede der,

230
00:14:18,840 --> 00:14:20,160
inklusive de hjemløse,

231
00:14:20,160 --> 00:14:22,560
på grund af de hjemløse
<font color="

232
00:14:22,560 --> 00:14:23,920
Det var der, hun skulle hen.

233
00:14:27,560 --> 00:14:31,720
Det var første gang, Rafaela havde det
vendte tilbage til ulykkesstedet.

234
00:14:37,200 --> 00:14:40,120
Kan du se det tegn på det indlæg,
det lys? Ja, ja.

235
00:14:40,120 --> 00:14:41,960
Hun var derovre. Åh, gud.

236
00:14:44,040 --> 00:14:47,680
<font color="
hele tiden. Ja.

237
00:14:47,680 --> 00:14:50,280
RAFAELA PUSTER UD

238
00:14:50,280 --> 00:14:51,320
JEG...

239
00:14:54,640 --> 00:14:56,040
Skriget, det...

240
00:14:59,280 --> 00:15:02,040
Det var bare forfærdeligt at høre det.
Og så...

241
00:15:02,040 --> 00:15:05,440
Men hvad var så værre
var, da det stoppede.

242
00:15:05,440 --> 00:15:10,600
<font color="
så sagde de, at hun var død,

243
00:15:10,600 --> 00:15:12,360
og så mistede jeg den.

244
00:15:14,520 --> 00:15:15,600
Nogen døde.

245
00:15:24,280 --> 00:15:28,080
Efter sammenstødet, politiet
indledte en strafferetlig efterforskning

246
00:15:28,080 --> 00:15:31,680
ind i bilen med kunstig intelligens

247
00:15:31,680 --> 00:15:33,760
og dets menneskelige operatør.

248
00:15:43,320 --> 00:15:46,680
<font color="
at køre bil involverer meget mere

249
00:15:46,680 --> 00:15:49,480
end at dreje et hjul
og tryk på pedaler.

250
00:15:49,480 --> 00:15:54,400
Du skal også lære det at gøre
ting som mennesker gør instinktivt,

251
00:15:54,400 --> 00:15:58,680
som at se fodgængere
og genkende vejskilte.

252
00:15:58,680 --> 00:16:00,760
<font color="

253
00:16:00,760 --> 00:16:05,120
men træne en maskine til at gøre det
har vist sig utroligt svært.

254
00:16:06,120 --> 00:16:10,040
Så tilbage i de tidlige dage af AI,
den eneste rigtige form for intelligens

255
00:16:10,040 --> 00:16:12,320
som vi kendte til
var menneskelig intelligens.

256
00:16:12,320 --> 00:16:17,000
Og så folk så til
<font color="

257
00:16:17,000 --> 00:16:21,680
om hvordan man bygger
en elektronisk hjerne.

258
00:16:21,680 --> 00:16:24,080
Og det der med den menneskelige hjerne
er, at det er gjort op

259
00:16:24,080 --> 00:16:26,880
med disse milliarder og milliarder
af neuroner

260
00:16:26,880 --> 00:16:29,400
der er forbundet sammen.

261
00:16:29,400 --> 00:16:30,560
Og som du tror,

262
00:16:30,560 --> 00:16:33,440
<font color="
disse små elektriske impulser,

263
00:16:33,440 --> 00:16:36,720
disse små udbrud
der kan være store eller små,

264
00:16:36,720 --> 00:16:38,800
gennem dette netværk i din hjerne.

265
00:16:40,720 --> 00:16:43,680
I 1950'erne begyndte folk
forsøger at konstruere

266
00:16:43,680 --> 00:16:46,080
en meget enklere computerversion

267
00:16:46,080 --> 00:16:48,440
<font color="
kunstige neuroner

268
00:16:48,440 --> 00:16:51,080
ville sende signaler
mellem hinanden.

269
00:16:51,080 --> 00:16:55,320
Dette koncept blev det, vi nu kalder
et neuralt netværk.

270
00:16:57,360 --> 00:17:01,920
Men i stedet for alle dine neuroner
være lidt blandet sammen,

271
00:17:01,920 --> 00:17:05,200
de vises i lag,
<font color="

272
00:17:08,560 --> 00:17:12,360
Årtier senere indså folk
du kunne bruge disse neurale netværk

273
00:17:12,360 --> 00:17:15,480
at genkende billeder -
som et stopskilt.

274
00:17:16,760 --> 00:17:19,560
Her er en forenklet version
af hvordan det fungerer.

275
00:17:21,080 --> 00:17:24,080
Hver neuron i hierarkiet
har sit eget arbejde.

276
00:17:24,080 --> 00:17:27,760
<font color="
med en enkelt pixel hver.

277
00:17:27,760 --> 00:17:29,920
Og når du går længere op
netværket,

278
00:17:29,920 --> 00:17:31,920
tingene bliver mere sofistikerede.

279
00:17:32,920 --> 00:17:34,880
Måske vil der være en neuron deroppe

280
00:17:34,880 --> 00:17:38,200
det er at tjekke for at se
hvis der er noget rødt.

281
00:17:38,200 --> 00:17:40,040
<font color="
det er at tjekke for at se

282
00:17:40,040 --> 00:17:42,600
hvis der er en ottekantet form

283
00:17:42,600 --> 00:17:45,440
der skiller sig ud fra baggrunden
bag den.

284
00:17:45,440 --> 00:17:48,400
Og al denne information,
alle disse signaler bliver sendt op,

285
00:17:48,400 --> 00:17:52,240
så du til sidst får ret til
<font color="

286
00:17:52,240 --> 00:17:54,200
til den store chef,

287
00:17:54,200 --> 00:17:57,040
som træffer en beslutning ud fra
alle oplysningerne

288
00:17:57,040 --> 00:17:58,800
der er strømmet gennem netværket,

289
00:17:58,800 --> 00:18:03,200
til endelig at beslutte, om den mener
det er et stopskilt, ja eller nej.

290
00:18:05,920 --> 00:18:07,880
Det ekstraordinære
<font color="

291
00:18:07,880 --> 00:18:11,160
er det hvis du kun viser det
et billede,

292
00:18:11,160 --> 00:18:14,400
det bliver bare at gætte
om det er et stopskilt eller ej.

293
00:18:14,400 --> 00:18:18,200
Men vis det tusindvis
og fortæl det, når det er rigtigt eller forkert

294
00:18:18,200 --> 00:18:22,760
og AI'en lærer at genkende
selve skiltet,

295
00:18:22,760 --> 00:18:26,600
<font color="
hver gang den laver en fejl.

296
00:18:28,240 --> 00:18:30,400
I de neurale netværk
du finder i en bil,

297
00:18:30,400 --> 00:18:32,600
de vil klassificere
ikke kun stopskilte,

298
00:18:32,600 --> 00:18:37,120
men fodgængere, køretøjer,
lygtepæle, vejafmærkninger.

299
00:18:37,120 --> 00:18:41,920
De er gigantiske
<font color="

300
00:18:41,920 --> 00:18:44,800
men princippet er stadig det samme.

301
00:18:44,800 --> 00:18:48,080
Dette er en maskine bygget
gennem forsøg og fejl.

302
00:18:55,880 --> 00:19:01,280
Men hvis der sker fejl
i den virkelige verden, på vores veje,

303
00:19:01,280 --> 00:19:03,880
konsekvenserne kan være fatale.

304
00:19:11,680 --> 00:19:14,080
THUD, DÆK SKRIDER

305
00:19:22,920 --> 00:19:28,600
<font color="
undlod at stoppe ved et stopskilt

306
00:19:28,600 --> 00:19:31,520
og pløjede gennem et T-kryds.

307
00:19:35,600 --> 00:19:37,640
MAN: Jeg er her. 911'eren er her.
Hvordan har du det, sir?

308
00:19:43,720 --> 00:19:44,880
OFFICER: OK.

309
00:19:44,880 --> 00:19:48,800
Føreren af ​​Teslaen,
<font color="

310
00:19:48,800 --> 00:19:52,640
havde været på hans telefon
da det faldt ud af hans hånd.

311
00:19:52,640 --> 00:19:54,360
Han bøjede sig ned for at tage den op,

312
00:19:54,360 --> 00:19:57,920
forlader Teslas autopilot
at køre bilen.

313
00:19:57,920 --> 00:19:59,680
Tjek hans ryg. Tjek hans ryg.

314
00:19:59,680 --> 00:20:01,520
Men noget gik galt.

315
00:20:03,880 --> 00:20:09,760
<font color="
Dillon Angulos lastbil med 62 km/t.

316
00:20:32,440 --> 00:20:35,800
Bemærkelsesværdigt nok overlevede Dillon
ulykken.

317
00:20:43,400 --> 00:20:45,960
Men han var ikke alene den aften.

318
00:21:11,920 --> 00:21:14,440
Dette billede var faktisk dagen
af styrtet.

319
00:21:17,000 --> 00:21:18,040
Og...

320
00:21:21,200 --> 00:21:22,320
..vi skulle ud og fiske,

321
00:21:22,320 --> 00:21:26,240
<font color="
i maddingsforretningen og...

322
00:21:27,360 --> 00:21:30,880
På tidspunktet for ulykken, Dillon
havde været sammen med sin nye kæreste,

323
00:21:30,880 --> 00:21:33,760
22-årige Naibel Benavides.

324
00:21:34,760 --> 00:21:37,240
Må jeg se hende?

325
00:21:37,240 --> 00:21:39,000
Åh...

326
00:21:39,000 --> 00:21:42,120
Påvirkningen fra Tesla
dræbte Naibel øjeblikkeligt.

327
00:21:43,440 --> 00:21:45,480
<font color="

328
00:21:45,480 --> 00:21:49,160
Naibel havde altid denne fred
og lykke til hende.

329
00:21:49,160 --> 00:21:51,000
Og bare være omkring hende
ville bare...

330
00:21:52,720 --> 00:21:54,280
Det ville smitte af på dig, ved du?

331
00:21:55,640 --> 00:21:57,120
Jeg skulle møde hendes mor
næste dag.

332
00:21:57,120 --> 00:21:59,040
du ved,
<font color="

333
00:21:59,040 --> 00:22:02,920
og så skulle jeg lave frokost
til sin mor dagen efter.

334
00:22:02,920 --> 00:22:05,920
Og... Var det første gang
skulle du møde hendes mor?

335
00:22:05,920 --> 00:22:08,560
Ja, det skulle være
første gang. Mmm.

336
00:22:08,560 --> 00:22:11,560
<font color="
første gang...

337
00:22:11,560 --> 00:22:15,440
..jeg skal møde hendes mor
var under disse omstændigheder.

338
00:22:22,600 --> 00:22:24,680
Åh, min gud.

339
00:22:24,680 --> 00:22:26,520
Jeg er så ked af det er sket for dig.

340
00:22:31,400 --> 00:22:34,960
Med det samme begyndte de at gøre det
en undersøgelse af ulykken.

341
00:22:36,000 --> 00:22:40,120
<font color="
på politiets kropskamera-video...

342
00:22:42,560 --> 00:22:45,640
..og i politiets kropskamera-video,
chaufføren, ja, han er ligesom,

343
00:22:45,640 --> 00:22:50,280
"Jeg kørte. Jeg talte i telefonen.
Jeg havde bilen på Autopilot Cruise."

344
00:22:51,840 --> 00:22:56,720
Jeg begyndte at lave research, og det gjorde jeg
<font color="

345
00:22:58,560 --> 00:23:03,200
Det der hedder autopilot,
hvor bilerne kan køre selv,

346
00:23:03,200 --> 00:23:04,720
ved du? Og...

347
00:23:06,840 --> 00:23:08,560
Og lige der og da,
jeg var ligesom...

348
00:23:09,960 --> 00:23:12,880
.."Denne fyr stolede på denne bil
at køre selv.

349
00:23:14,640 --> 00:23:16,400
<font color="

350
00:23:28,240 --> 00:23:31,360
Autopiloten er Teslas avancerede

351
00:23:31,360 --> 00:23:32,560
førerassistentfunktion,

352
00:23:32,560 --> 00:23:35,360
fremhævet i deres slick
salgsfremmende videoer

353
00:23:35,360 --> 00:23:38,360
der sælger en vision om
teknologisk sofistikering,

354
00:23:38,360 --> 00:23:40,400
sikkerhed og bekvemmelighed,

355
00:23:40,400 --> 00:23:44,680
<font color="
og skifte vognbane på rigtige veje

356
00:23:44,680 --> 00:23:47,160
i den virkelige verden.

357
00:23:47,160 --> 00:23:50,360
Tesla Car næste år bliver sandsynligvis

358
00:23:50,360 --> 00:23:52,880
90% i stand til autopilot,

359
00:23:52,880 --> 00:23:55,280
sådan 90% af dine miles
kunne være på auto.

360
00:23:55,280 --> 00:23:57,760
Andre bilfirmaer følger efter.

361
00:23:57,760 --> 00:23:59,360
<font color="

362
00:23:59,360 --> 00:24:03,360
at hans biler helt kan
køre sig selv,

363
00:24:03,360 --> 00:24:05,280
men det kan de ikke.

364
00:24:05,280 --> 00:24:07,720
Førerens manual
siger, at et menneske stadig skal være det

365
00:24:07,720 --> 00:24:09,760
har fuld kontrol over bilen.

366
00:24:10,880 --> 00:24:14,280
Det her er psykotisk.
<font color="

367
00:24:14,280 --> 00:24:16,040
Jeg er ikke involveret i det her.
Pas på vejen.

368
00:24:16,040 --> 00:24:19,480
Hvad synes du, Autopilot...?!
Puha, Jesus, det var skræmmende.

369
00:24:19,480 --> 00:24:22,640
Vent, der er en dobbelt gul streg.
Er jeg på højre side af vejen?

370
00:24:22,640 --> 00:24:26,480
<font color="
Er du seriøs? Ja!

371
00:24:26,480 --> 00:24:28,920
Se! Stol ikke på for fanden
denne ting.

372
00:24:28,920 --> 00:24:33,600
Og der er alvorlige sikkerhedsproblemer
over autopilotfunktionen.

373
00:24:35,760 --> 00:24:39,040
REPORTER: Denne Tesla styrtede ind
<font color="

374
00:24:39,040 --> 00:24:40,280
dræbe chaufføren.

375
00:24:40,280 --> 00:24:43,880
En anden slog til
en parkeret brandbil i Utah.

376
00:24:43,880 --> 00:24:46,800
Begge havde autopilot-funktionen slået til.

377
00:24:51,640 --> 00:24:54,000
Dette er svinget lige før

378
00:24:54,000 --> 00:24:56,680
krydset hvor
ulykken skete.

379
00:24:56,680 --> 00:25:00,280
<font color="

380
00:25:00,280 --> 00:25:02,800
du kunne allerede se det røde lys
blinker lige herfra.

381
00:25:02,800 --> 00:25:05,160
Åh, ja. Jeg ser det.

382
00:25:14,080 --> 00:25:19,200
Det er her hendes krop
endte med at lægge.

383
00:25:19,200 --> 00:25:21,720
Du ved, vi havde stoppet
at se på stjernerne.

384
00:25:23,120 --> 00:25:27,600
<font color="
ved du?

385
00:25:27,600 --> 00:25:31,160
Så hurtigt kørte bilen
lige gennem dette kryds.

386
00:25:32,480 --> 00:25:34,720
Seks måneder efter
den fatale kollision,

387
00:25:34,720 --> 00:25:37,520
manden bag rattet i
Teslaen, George McGee,

388
00:25:37,520 --> 00:25:42,720
<font color="
som han ikke bestridte.

389
00:25:44,800 --> 00:25:48,240
Men Dillon ville have Tesla
også at blive stillet til ansvar.

390
00:25:49,240 --> 00:25:51,480
Disse bilproducenter,
de skal gøre et bedre stykke arbejde

391
00:25:51,480 --> 00:25:53,880
med at designe disse biler.

392
00:25:55,480 --> 00:26:00,360
Vi ønsker retfærdighed. Naibels familie
<font color="

393
00:26:00,360 --> 00:26:01,880
Disse biler var tilladt på vejen

394
00:26:01,880 --> 00:26:04,120
før de var klar
at være på vejen.

395
00:26:04,120 --> 00:26:05,880
De var ikke sikre.

396
00:26:05,880 --> 00:26:09,840
Og de blev annonceret som disse
biler, der kan køre selv.

397
00:26:15,080 --> 00:26:18,960
Tesla tilbød Dillon og
<font color="

398
00:26:18,960 --> 00:26:20,880
at trække en streg under sagen.

399
00:26:22,400 --> 00:26:26,560
Men de nægtede
og der blev fastsat en retsdato.

400
00:26:27,680 --> 00:26:32,960
Tesla vil nu stå over for en nævningeting
over sit autopilotsystem.

401
00:26:46,880 --> 00:26:48,760
NYHEDSlæser: Først klokken fem,
videoen, der viser øjeblikke

402
00:26:48,760 --> 00:26:51,840
<font color="
selvkørende bilulykker.

403
00:26:51,840 --> 00:26:56,600
Backup-driveren Rafaela Vasquez ser ud
nede i cirka fire sekunder.

404
00:26:56,600 --> 00:26:59,880
Tilbage i 2018, nedfaldet
fra Rafaelas styrt

405
00:26:59,880 --> 00:27:04,120
havde ladet det hele selvkørende
industrien hænger i en balancegang.

406
00:27:04,120 --> 00:27:05,720
<font color="

407
00:27:05,720 --> 00:27:09,080
hvem har ansvaret
når en bil laver et fejltrin?

408
00:27:09,080 --> 00:27:12,720
Er der tilstrækkelig sikkerhed indbygget
før vi indsætter disse køretøjer?

409
00:27:12,720 --> 00:27:15,240
Er der noget forslag
i øjeblikket

410
00:27:15,240 --> 00:27:18,400
at Uber har gjort noget forkert?
<font color="

411
00:27:21,200 --> 00:27:24,320
Under intense medier
og politisk kontrol,

412
00:27:24,320 --> 00:27:27,800
Tempes politiefterforskning
efterlod ingen sten uvendt.

413
00:27:29,040 --> 00:27:34,080
Så politiet har sendt over
alle deres digitale beviser.

414
00:27:34,080 --> 00:27:36,080
Øhm...

415
00:27:36,080 --> 00:27:38,680
Og jeg har endnu ikke set dette.
<font color="

416
00:27:40,320 --> 00:27:45,560
Selve bilen i politiet
forbindelsen, der analyseres.

417
00:27:45,560 --> 00:27:47,280
Åh, gud, se på det.

418
00:27:47,280 --> 00:27:50,760
Og så er der også en
der siger "Grib telefoner."

419
00:27:53,680 --> 00:27:55,560
De banker på nogens dør.
Det er politiafdelingen.

420
00:27:55,560 --> 00:27:58,400
<font color="
alles ansigter.

421
00:28:02,080 --> 00:28:04,400
Hej. Hej, Rafaela.

422
00:28:04,400 --> 00:28:07,640
Vi kommer for at følge op
om ulykken,

423
00:28:07,640 --> 00:28:10,480
fordi vi har en beslaglæggelseskendelse
til din mobiltelefon.

424
00:28:10,480 --> 00:28:13,200
De har en ordre på hendes telefon.

425
00:28:13,200 --> 00:28:15,960
<font color="
ville du? Okay, Rafaela.

426
00:28:15,960 --> 00:28:19,120
Hvor mange telefoner har du?
Hvad? Hvor mange telefoner har du?

427
00:28:19,120 --> 00:28:21,440
Jeg har min arbejdstelefon
og så min personlige telefon.

428
00:28:21,440 --> 00:28:23,920
Men min arbejdstelefon er den, jeg havde
<font color="

429
00:28:23,920 --> 00:28:25,640
Så kendelsen er
siger, at vi har brug for begge telefoner.

430
00:28:25,640 --> 00:28:27,960
Nå, vi har brug for alle telefonerne.
Hvor mange?

431
00:28:27,960 --> 00:28:29,040
Alle dine telefoner.

432
00:28:30,040 --> 00:28:31,680
Hvorfor tager de hendes telefoner?

433
00:28:36,040 --> 00:28:37,960
Tak, Rafaela.

434
00:28:44,440 --> 00:28:46,200
Hej! Hej godmorgen.

435
00:28:46,200 --> 00:28:50,000
<font color="
ledende detektiv i sagen.

436
00:28:50,000 --> 00:28:53,600
Han gik med til at vise mig optagelserne
han havde fået fra Uber.

437
00:28:53,600 --> 00:28:57,600
Så dette er optagelserne
med alle tre kameravisninger.

438
00:28:57,600 --> 00:28:59,520
Da jeg først ramte play,

439
00:28:59,520 --> 00:29:03,440
vi kan se chaufføren
<font color="

440
00:29:05,480 --> 00:29:08,680
Og det så det ikke ud til at være
en logisk forklaring

441
00:29:08,680 --> 00:29:10,920
hvorfor hun kiggede ned.

442
00:29:10,920 --> 00:29:14,280
Så vi nærmer os styrtet nu,
er vi? Ja.

443
00:29:14,280 --> 00:29:15,320
Og der.

444
00:29:17,560 --> 00:29:19,360
<font color="
i dette? Selvfølgelig.

445
00:29:19,360 --> 00:29:22,480
Jeg vil bare se, hvad der sker
umiddelbart før. Sikker.

446
00:29:24,120 --> 00:29:25,880
Så ser ned, ser ned,
kigger ned,

447
00:29:25,880 --> 00:29:27,320
ser ned, ser ned,
kigger ned,

448
00:29:27,320 --> 00:29:30,280
<font color="
HANNAH GIVER

449
00:29:30,280 --> 00:29:32,320
Hvad siger hun
hun kiggede på?

450
00:29:32,320 --> 00:29:35,400
I første omgang var der en erklæring

451
00:29:35,400 --> 00:29:40,400
at det havde med iPad at gøre
i midten af ​​køretøjet.

452
00:29:40,400 --> 00:29:41,880
Og hænger det bredt sammen?

453
00:29:41,880 --> 00:29:46,000
<font color="
ved skærme, mens de kørte?

454
00:29:46,000 --> 00:29:49,520
Så... Ja, det var... Én
af formålene med hendes job,

455
00:29:49,520 --> 00:29:51,400
skulle overvåge køretøjet.

456
00:29:51,400 --> 00:29:52,920
Og hvis der var noget unormalt,

457
00:29:52,920 --> 00:29:55,200
hun skulle interagere
med den skærm.

458
00:29:55,200 --> 00:29:57,520
<font color="
instruktioner, højre,

459
00:29:57,520 --> 00:30:00,240
det, sådan... Ja. ..de er
formodes at se på skærme

460
00:30:00,240 --> 00:30:02,560
men samtidig overvågning
vejen.

461
00:30:02,560 --> 00:30:04,360
Ja, det giver helt sikkert
<font color="

462
00:30:04,360 --> 00:30:07,560
Ja. Dog når vi selvfølgelig
kiggede på, hvad skærmen

463
00:30:07,560 --> 00:30:09,760
viste sig faktisk på det tidspunkt,

464
00:30:09,760 --> 00:30:11,960
det viste sig ikke
at der var nogen form for alarmer

465
00:30:11,960 --> 00:30:14,240
eller enhver form for interaktion
med skærmen.

466
00:30:14,240 --> 00:30:15,800
<font color="

467
00:30:15,800 --> 00:30:20,040
Vi så de apps, der blev installeret
på hendes personlige telefon.

468
00:30:20,040 --> 00:30:23,160
Vi har bemærket, at Hulu var en aktiv app
på hendes telefon,

469
00:30:23,160 --> 00:30:25,160
og da vi skrev
en ransagningskendelse til virksomheden,

470
00:30:25,160 --> 00:30:28,680
de svarede med en udskrift
<font color="

471
00:30:28,680 --> 00:30:32,320
Og det var nok det, der gav os
den vigtigste information

472
00:30:32,320 --> 00:30:34,120
dengang.
Og hvad stod der?

473
00:30:35,320 --> 00:30:38,440
Så dette var informationen
som blev leveret fra Hulu.

474
00:30:38,440 --> 00:30:42,560
Og det viser, at showet The Voice
<font color="

475
00:30:42,560 --> 00:30:44,360
til hendes personlige telefon.

476
00:30:44,360 --> 00:30:47,400
Så hvad var din mening
ved at se alt dette?

477
00:30:47,400 --> 00:30:49,480
I det væsentlige går dette til
begyndelsen af ​​hendes skift.

478
00:30:49,480 --> 00:30:53,720
Hun startede sin vagt med at køre
køretøjet ud af garagen,

479
00:30:53,720 --> 00:30:56,120
<font color="
hun kom endda ud på vejbanen,

480
00:30:56,120 --> 00:30:59,040
som hun havde sat op
og begyndte at streame Hulu.

481
00:30:59,040 --> 00:31:03,400
Og så tror jeg, at det bevidste
beslutning om at give dig selv

482
00:31:03,400 --> 00:31:07,480
med en sandsynlig distraktion
før man overhovedet kommer ud på kørebanen

483
00:31:07,480 --> 00:31:11,600
<font color="
skal laves.

484
00:31:22,960 --> 00:31:27,640
Så jeg fandt... jeg fandt et par
af klip omkring tiden.

485
00:31:27,640 --> 00:31:30,560
Og mange af dem
er ikke på din side.

486
00:31:30,560 --> 00:31:33,040
Nogle af dem var forfærdelige,
især i starten.

487
00:31:33,040 --> 00:31:35,280
Tag et kig på dette.
<font color="

488
00:31:35,280 --> 00:31:39,400
Det viser sig, at hun streamede
den sangkonkurrence The Voice

489
00:31:39,400 --> 00:31:42,280
på det tidspunkt, hvor hun skulle have
holdt øje med vejen.

490
00:31:42,280 --> 00:31:46,000
Rafaela Vasquez red
i autonom tilstand på det tidspunkt,

491
00:31:46,000 --> 00:31:49,760
men hun var distraheret
<font color="

492
00:31:49,760 --> 00:31:53,520
af de næsten 22 minutter
før styrtet.

493
00:31:53,520 --> 00:31:55,480
Lige der - de har ret.

494
00:31:55,480 --> 00:31:58,480
Jeg var ikke distraheret,
Jeg gjorde mit arbejde.

495
00:31:58,480 --> 00:32:00,600
Jeg havde andre ting at lave
andet end at betjene køretøjet,

496
00:32:00,600 --> 00:32:01,880
<font color="

497
00:32:01,880 --> 00:32:03,800
Så jeg fik tildelt opgaver.

498
00:32:03,800 --> 00:32:06,640
Som i videoen ser du mig
se væk. Jeg kigger væk.

499
00:32:06,640 --> 00:32:09,280
Men hvis du tager tid på dem,
og det gjorde endda politiet

500
00:32:09,280 --> 00:32:11,000
Jeg kiggede aldrig væk
i mere end fem sekunder.

501
00:32:11,000 --> 00:32:12,280
<font color="

502
00:32:12,280 --> 00:32:13,720
Vi blev trænet til at se, boom,

503
00:32:13,720 --> 00:32:16,280
iPad fem sekunder,
så se tilbage, boom.

504
00:32:16,280 --> 00:32:18,440
Herovre, fem sekunder,
se tilbage, boom.

505
00:32:18,440 --> 00:32:23,200
Vores mobiltelefoner, det skal vi
Bluetooth dem ind i køretøjet.

506
00:32:23,200 --> 00:32:26,040
<font color="
Jeg lyttede til den.

507
00:32:26,040 --> 00:32:27,760
Men politiet sagde, at jeg så -

508
00:32:27,760 --> 00:32:29,520
det betyder det
en endelig erklæring.

509
00:32:29,520 --> 00:32:31,040
Du har lige fortalt det til offentligheden

510
00:32:31,040 --> 00:32:33,600
at du har beviser
at jeg så noget.

511
00:32:33,600 --> 00:32:35,320
<font color="

512
00:32:35,320 --> 00:32:38,080
Du har beviser på, at jeg var det
Bluetooth streamer noget,

513
00:32:38,080 --> 00:32:41,760
men hej, streaming, Bluetooth -
du kan lytte til ting.

514
00:32:41,760 --> 00:32:43,880
Folk gør det hele tiden
med musik.

515
00:32:43,880 --> 00:32:48,760
Alle antog automatisk -
<font color="

516
00:32:48,760 --> 00:32:54,520
at jeg så Hulu, og
derfor var jeg uagtsom,

517
00:32:54,520 --> 00:32:56,600
derfor kunne jeg ikke
for at forhindre ulykken,

518
00:32:56,600 --> 00:32:58,840
derfor afgiften.

519
00:32:58,840 --> 00:33:02,440
Undersøgelsen varede
i to et halvt år

520
00:33:02,440 --> 00:33:05,200
<font color="

521
00:33:05,200 --> 00:33:07,400
Hvor var du
hvornår kom anklageskriftet?

522
00:33:07,400 --> 00:33:09,800
Jeg var hjemme.
Mine advokater informerede mig.

523
00:33:09,800 --> 00:33:11,600
Det fortalte de mig lige
Jeg skulle tiltales

524
00:33:11,600 --> 00:33:12,680
for uagtsomt drab.

525
00:33:12,680 --> 00:33:15,520
Jeg sagde: "Hvad?"
<font color="

526
00:33:15,520 --> 00:33:18,600
Uagtsomt drab?!
Jeg sagde, "drab?"

527
00:33:18,600 --> 00:33:20,400
Jeg sagde: "Så, mord?"

528
00:33:20,400 --> 00:33:24,160
Det er bare mig,
hvordan jeg tolker det. Så jeg nu...

529
00:33:24,160 --> 00:33:27,280
Jeg siger, "Er du k..."
Jeg vidste ikke, hvad jeg skulle sige eller gøre.

530
00:33:28,520 --> 00:33:29,640
Nu er jeg i chok.

531
00:33:31,000 --> 00:33:35,760
<font color="
til otte års fængsel.

532
00:33:42,720 --> 00:33:45,160
Med modstridende konti
fra begge sider,

533
00:33:45,160 --> 00:33:48,720
Jeg besluttede at opspore
den officielle ulykkesrapport.

534
00:33:53,040 --> 00:33:55,800
Rapporten konkluderede, at styrtet
var sandsynligvis forårsaget

535
00:33:55,800 --> 00:34:00,400
<font color="
køremiljøet,

536
00:34:00,400 --> 00:34:03,240
men det var også kritisk over for Uber,

537
00:34:03,240 --> 00:34:07,000
afsløre bekymrende fejl
i designet af sin AI-programmering.

538
00:34:10,720 --> 00:34:12,600
Dette bord
er særligt interessant,

539
00:34:12,600 --> 00:34:15,320
for det er som at se
<font color="

540
00:34:15,320 --> 00:34:19,320
af hvad den førerløse bil
tænkte på det tidspunkt.

541
00:34:19,320 --> 00:34:22,560
Det mærker bilen faktisk
der er noget der

542
00:34:22,560 --> 00:34:25,320
5,6 sekunder før kollisionen,

543
00:34:25,320 --> 00:34:30,160
hvilket er masser af tid
at begynde at bremse eller dreje.

544
00:34:30,160 --> 00:34:32,520
<font color="

545
00:34:32,520 --> 00:34:34,920
der opdager, at der er noget
i det fjerne.

546
00:34:34,920 --> 00:34:37,120
Det forudsiger dog, at det er et køretøj.

547
00:34:37,120 --> 00:34:39,360
Og så 0,4 sekunder senere,

548
00:34:39,360 --> 00:34:43,000
lidaren slår ind og samler op
at der er noget der.

549
00:34:44,600 --> 00:34:45,960
Lidaren ved det ikke
<font color="

550
00:34:45,960 --> 00:34:49,560
Det klassificerer det bare som "andet",
noget ukendt.

551
00:34:49,560 --> 00:34:53,000
Nu lidar
bliver ved med at ændre mening.

552
00:34:53,000 --> 00:34:55,720
Så et helt sekund senere,

553
00:34:55,720 --> 00:34:57,800
skifter mening,
beslutter, at det er et køretøj,

554
00:34:57,800 --> 00:35:01,960
derefter 0,3 af et sekund senere,
<font color="

555
00:35:01,960 --> 00:35:04,360
og så bliver den ved med at skifte -

556
00:35:04,360 --> 00:35:06,960
køretøj, andet, køretøj, andet.

557
00:35:06,960 --> 00:35:12,280
Computeren i denne driverløs
bilen forbinder ikke prikkerne.

558
00:35:12,280 --> 00:35:17,840
Det ser ikke dette som ét objekt
hvis klassifikation bliver ved med at ændre sig,

559
00:35:17,840 --> 00:35:21,200
hvis vej langsomt bevæger sig
<font color="

560
00:35:21,200 --> 00:35:25,040
I stedet ser det dette som
helt nye genstande hver eneste gang.

561
00:35:30,520 --> 00:35:34,200
Faktisk er det kun 1,2 sekunder
før påvirkning

562
00:35:34,200 --> 00:35:37,000
at den endelig beslutter sig for at afgøre
at det er en cykel.

563
00:35:41,320 --> 00:35:43,920
Åbenbart alt for sent
<font color="

564
00:35:45,880 --> 00:35:47,480
Frygtindgydende.

565
00:35:47,480 --> 00:35:51,760
Du designer et system, der fejler
at spore et objekts sti

566
00:35:51,760 --> 00:35:54,280
indtil det er besluttet hvad det er?

567
00:35:54,280 --> 00:35:56,800
Hvis du har noget
du kommer til at kollidere med,

568
00:35:56,800 --> 00:36:00,040
Jeg er ligeglad med hvad det er! Jeg er ligeglad
<font color="

569
00:36:05,560 --> 00:36:06,640
Det er sindssygt.

570
00:36:08,080 --> 00:36:10,680
"Selvom systemet fornemmede
fodgængeren næsten seks sekunder

571
00:36:10,680 --> 00:36:15,120
"før påvirkningen, systemet
aldrig klassificeret hende som fodgænger

572
00:36:15,120 --> 00:36:19,000
"eller forudsagde sit mål korrekt.

573
00:36:19,000 --> 00:36:21,400
"Systemdesignet inkluderede ikke

574
00:36:21,400 --> 00:36:24,720
<font color="
for gående fodgængere."

575
00:36:26,720 --> 00:36:30,120
Det var ikke designet
at genkende mennesker

576
00:36:30,120 --> 00:36:32,040
medmindre de var på en fodgængerovergang.

577
00:36:36,360 --> 00:36:38,200
Det tror jeg
ret forbandet, faktisk.

578
00:36:41,280 --> 00:36:43,240
Hvad lavede denne ting
på vejene?

579
00:36:52,000 --> 00:36:54,800
<font color="
om hvad der skete

580
00:36:54,800 --> 00:36:59,880
inde i Uber omkring det tidspunkt
af Rafaelas styrt i 2018.

581
00:37:01,200 --> 00:37:04,200
Efter lidt gravning,
Jeg fandt Robbie Miller...

582
00:37:04,200 --> 00:37:06,120
Robbie, hej!

583
00:37:06,120 --> 00:37:08,440
..en driftsleder
som havde været hos Uber

584
00:37:08,440 --> 00:37:11,040
<font color="

585
00:37:11,040 --> 00:37:13,000
Han havde sagt op af sikkerhedsmæssige årsager

586
00:37:13,000 --> 00:37:15,920
blot et par dage før
den fatale kollision.

587
00:37:16,960 --> 00:37:19,080
Jeg havde arbejdet
i det selvkørende rum

588
00:37:19,080 --> 00:37:21,560
i fire eller fem år
på dette tidspunkt.

589
00:37:21,560 --> 00:37:25,120
Jeg kørte selvkørende
<font color="

590
00:37:25,120 --> 00:37:29,440
Til sidst skete der et træk
at kombinere operationerne

591
00:37:29,440 --> 00:37:34,680
af testen for selvkørende biler
og selvkørende lastbiler.

592
00:37:36,640 --> 00:37:37,880
Hvordan havde du det med det?

593
00:37:37,880 --> 00:37:40,040
Jeg var slet ikke tilpas
med det.

594
00:37:40,040 --> 00:37:42,960
De selvkørende biler
<font color="

595
00:37:42,960 --> 00:37:48,320
Der er rigtig meget skræmmende
forekomster, der forekommer -

596
00:37:48,320 --> 00:37:50,720
nærved-ulykker, nær-kollisioner.

597
00:37:50,720 --> 00:37:53,200
Vi ville have, du ved,
en hændelse

598
00:37:53,200 --> 00:37:58,560
hvor bilen kørte videre
fortovet ... ved højlys dag.

599
00:37:58,560 --> 00:38:00,880
<font color="

600
00:38:00,880 --> 00:38:03,800
De er på vej på en sti

601
00:38:03,800 --> 00:38:07,440
hvor nogen vil komme
alvorligt kvæstet eller værre.

602
00:38:07,440 --> 00:38:10,280
Og så jeg...

603
00:38:10,280 --> 00:38:12,000
Jeg gav besked.

604
00:38:12,000 --> 00:38:16,440
Der er denne overordnede frygt,
Jeg vil sige, hos Uber,

605
00:38:16,440 --> 00:38:21,320
som Waymo er ved at udgive
<font color="

606
00:38:21,320 --> 00:38:23,040
Og det er...

607
00:38:23,040 --> 00:38:27,480
Jeg synes, det er meget skræmmende for Uber
lederskab til ikke at have et svar.

608
00:38:27,480 --> 00:38:31,680
Så det er blevet til et løb?
Det er absolut et løb.

609
00:38:31,680 --> 00:38:35,600
Waymo, ejet af Google's
moderselskab Alphabet,

610
00:38:35,600 --> 00:38:38,440
<font color="

611
00:38:38,440 --> 00:38:42,840
Kun fem måneder efter Waymo
lancerede sin første offentlige retssag,

612
00:38:42,840 --> 00:38:46,160
Uber flyttede fra to operatører
i bilen til en.

613
00:38:48,520 --> 00:38:52,720
Du skal vise dine investorer,
"Hej, vi gør dette fremskridt."

614
00:38:52,720 --> 00:38:55,680
En nem måde at gøre det på
<font color="

615
00:38:55,680 --> 00:38:57,720
Og det er noget jeg nævnte -

616
00:38:57,720 --> 00:38:59,200
"Du har brug for den anden person
i køretøjet.

617
00:38:59,200 --> 00:39:02,960
"Du er ikke klar til at tage
denne person ud af køretøjet."

618
00:39:02,960 --> 00:39:06,920
Bare et par dage efter jeg tog afsted,
styrtet skete.

619
00:39:08,040 --> 00:39:10,200
<font color="
om det?

620
00:39:11,720 --> 00:39:13,280
Jeg kørte

621
00:39:13,280 --> 00:39:19,720
og jeg fik et telefonopkald fra
en af ​​mine tidligere medarbejdere hos Uber.

622
00:39:21,760 --> 00:39:25,920
Og jeg sad på parkeringspladsen
og græd i 15 minutter.

623
00:39:31,960 --> 00:39:33,600
Wow.

624
00:39:33,600 --> 00:39:36,600
<font color="
teknologien.

625
00:39:36,600 --> 00:39:42,800
Jeg tror på teknologien.
Jeg ønsker, at teknologien skal lykkes.

626
00:39:42,800 --> 00:39:44,320
Men der er...

627
00:39:44,320 --> 00:39:46,040
Der er en måde at gøre det på.

628
00:39:54,120 --> 00:39:57,040
Et par år efter
Rafaelas dødsulykke,

629
00:39:57,040 --> 00:40:00,000
Uber solgte ud
<font color="

630
00:40:00,000 --> 00:40:02,240
efterlader stien fri til Waymo.

631
00:40:05,920 --> 00:40:09,440
Her går du! Waymo er lige styrtet ned.

632
00:40:09,440 --> 00:40:12,080
AI-teknologi - virker ikke!

633
00:40:13,240 --> 00:40:15,960
Hvorfor sker det her for mig
på en mandag? Jeg sidder i en Waymo-bil...

634
00:40:15,960 --> 00:40:17,800
AUTOMATISK STEMME: Forbundet til
<font color="

635
00:40:17,800 --> 00:40:20,240
..og... Dette opkald kan blive optaget
til kvalitetssikring.

636
00:40:20,240 --> 00:40:22,320
..denne bil går bare i cirkler.

637
00:40:22,320 --> 00:40:24,960
Hej med dig, Mike. Det her er Gab.
Jeg ringer fra Waymo support...

638
00:40:24,960 --> 00:40:26,800
Ja, jeg har et fly at nå.

639
00:40:26,800 --> 00:40:29,320
<font color="
Jeg er ved at blive svimmel.

640
00:40:30,800 --> 00:40:35,040
Waymo er nu den dominerende kraft
i førerløse taxaer i USA,

641
00:40:35,040 --> 00:40:38,080
med 2.500 af dem på vejen.

642
00:40:42,680 --> 00:40:45,560
Eksperter har rost
deres sikkerhedsrekord.

643
00:40:48,360 --> 00:40:52,800
Men nogle ser disse biler som symboler
<font color="

644
00:40:52,800 --> 00:40:56,560
og deres afbrydelse fra
almindelige menneskers liv.

645
00:40:56,560 --> 00:40:58,000
Hej! Hej.

646
00:40:59,040 --> 00:41:02,680
Og der er én gruppe
som har besluttet at tage affære.

647
00:41:02,680 --> 00:41:05,400
Dejligt at møde dig. Det er dejligt
<font color="

648
00:41:05,400 --> 00:41:06,480
Har det godt. Har det godt.

649
00:41:06,480 --> 00:41:09,640
De kalder sig selv
Safe Street-oprørerne

650
00:41:09,640 --> 00:41:12,960
og udføre
deres operationer inkognito.

651
00:41:12,960 --> 00:41:18,200
Hvad er det for det autonome
kørsel, som du ikke kan lide?

652
00:41:18,200 --> 00:41:20,480
De er tunge
<font color="

653
00:41:20,480 --> 00:41:23,520
som fremtiden for offentlig transport,

654
00:41:23,520 --> 00:41:25,160
og vi bare grundlæggende
tænk ikke

655
00:41:25,160 --> 00:41:26,600
de er fremtiden for
offentlig transport.

656
00:41:26,600 --> 00:41:29,680
De er bare en taxa
hvor man ikke taler med nogen.

657
00:41:29,680 --> 00:41:33,080
Og når bilen ikke er parkeret,
<font color="

658
00:41:33,080 --> 00:41:36,000
50 % af de kilometer, de kører,
der er ingen i bilen.

659
00:41:36,000 --> 00:41:38,520
Derudover kan de ikke billets

660
00:41:38,520 --> 00:41:41,080
for enhver form for flytteovertrædelse
i byen.

661
00:41:41,080 --> 00:41:43,120
Vi har videoer af dem, der kører 40 km/t

662
00:41:43,120 --> 00:41:46,240
på den forkerte side af vejen,
<font color="

663
00:41:46,240 --> 00:41:47,480
De er fuldstændig immune.

664
00:41:47,480 --> 00:41:49,520
Hvad, de er over
den slags regler, der ville stå

665
00:41:49,520 --> 00:41:51,200
for en Uber-chauffør eller en Lyft-chauffør?

666
00:41:51,200 --> 00:41:54,440
Ja, og hvis de ikke kan noget
om det, kan vi.

667
00:41:55,640 --> 00:41:57,360
For at udtrykke deres frustration,

668
00:41:57,360 --> 00:42:01,160
<font color="
deaktivering af Waymos.

669
00:42:04,120 --> 00:42:05,600
Lad mig forstå
strategien altså.

670
00:42:05,600 --> 00:42:08,480
Så hvor nemme er de at tilsidesætte?

671
00:42:08,480 --> 00:42:11,560
LINTER: Ret nemt!
Sikkert ret nemt.

672
00:42:11,560 --> 00:42:14,880
Vi må ikke vise dig
<font color="

673
00:42:14,880 --> 00:42:17,680
selvom det ikke ligefrem er højteknologisk.

674
00:42:17,680 --> 00:42:19,920
Så du sætter dem ikke
ude af drift permanent? Nej, nej.

675
00:42:19,920 --> 00:42:21,720
Og vi forvolder ingen skade
til dem heller.

676
00:42:21,720 --> 00:42:22,760
Det er ligesom... Det er malerbånd,

677
00:42:22,760 --> 00:42:24,960
<font color="
når du fjerner den.

678
00:42:24,960 --> 00:42:27,480
Der er en...
Der kommer en. Højre.

679
00:42:27,480 --> 00:42:30,320
Der er en, der er en...
Ja. Tjek denne.

680
00:42:30,320 --> 00:42:31,360
Nogen går foran.

681
00:42:35,880 --> 00:42:38,560
MAN: Fuck det!
<font color="

682
00:42:38,560 --> 00:42:40,120
HUPPER

683
00:42:40,120 --> 00:42:41,200
Hørte du det?

684
00:42:41,200 --> 00:42:44,480
Der var folk på fortovet
der heppede på dem.

685
00:42:45,760 --> 00:42:48,720
Den handicappede bil spærrede nu
vejen.

686
00:42:48,720 --> 00:42:51,240
KLOKKE
AUTOMATISK STEMME: Træd venligst tilbage.

687
00:42:53,280 --> 00:42:57,840
<font color="
men sidder fast.

688
00:42:57,840 --> 00:42:59,880
Der kommer endnu en.
Åh, gud!

689
00:43:02,240 --> 00:43:03,280
Tre af dem...

690
00:43:04,880 --> 00:43:06,440
..og de sidder bare fast.

691
00:43:06,440 --> 00:43:09,200
Og nu er der en anden bil
bagved, blinkende.

692
00:43:09,200 --> 00:43:11,800
Men den har en menneskelig driver,
<font color="

693
00:43:15,160 --> 00:43:17,800
Er det faktisk ulovligt,
hvad laver du?

694
00:43:17,800 --> 00:43:18,880
Vi mener ikke, det er ulovligt.

695
00:43:18,880 --> 00:43:20,320
Vi kan ikke finde nogen lov
at den går i stykker.

696
00:43:20,320 --> 00:43:23,640
Det er ikke hærværk, så... Det er svært
at pege på enhver lov, vi bryder.

697
00:43:25,360 --> 00:43:28,400
<font color="
kunne gøre dette? Jeg mener, kan du...

698
00:43:28,400 --> 00:43:31,440
Jeg ved ikke, er der sådan,
ikke en mere demokratisk måde?

699
00:43:31,440 --> 00:43:32,760
Det ville være rart, hvis vi kunne stemme

700
00:43:32,760 --> 00:43:34,320
hvis vi havde muligheden
at stemme på dem,

701
00:43:34,320 --> 00:43:36,960
men vi er ikke blevet præsenteret
<font color="

702
00:43:36,960 --> 00:43:39,000
Er det... Føles det lidt som
det her er noget

703
00:43:39,000 --> 00:43:41,240
det er sket for dig
i stedet for med dig?

704
00:43:41,240 --> 00:43:42,760
Jeg mener, absolut.

705
00:43:42,760 --> 00:43:44,040
Hey, yo, der kommer en
den anden side.

706
00:43:44,040 --> 00:43:46,840
Anden side, anden side, anden side.
<font color="

707
00:43:49,800 --> 00:43:51,320
Ja. Vil du gå foran?

708
00:43:57,040 --> 00:43:59,600
De er overraskende nemme at mobbe,
er de ikke?

709
00:44:01,720 --> 00:44:03,960
Den anden ting
Jeg synes det var virkelig overraskende

710
00:44:03,960 --> 00:44:08,200
var bare hvor mange af dem
gik forbi, ikke?

711
00:44:08,200 --> 00:44:11,560
<font color="
men jeg mener...

712
00:44:11,560 --> 00:44:14,040
..næppe nogen af ​​dem
have folk indenfor.

713
00:44:17,760 --> 00:44:19,160
Ja, den er tom.

714
00:44:23,320 --> 00:44:26,000
De sagde noget
som jeg ikke havde overvejet før,

715
00:44:26,000 --> 00:44:29,400
som handler om, hvordan de er
konstant kredsende

716
00:44:29,400 --> 00:44:31,480
<font color="
mennesker inde i dem.

717
00:44:31,480 --> 00:44:33,440
Og det havde jeg ikke overvejet,
fordi selvfølgelig

718
00:44:33,440 --> 00:44:36,200
der er et overbelastningsaspekt...

719
00:44:36,200 --> 00:44:37,760
..men der er en
også miljøaspektet.

720
00:44:37,760 --> 00:44:39,480
Jeg mener, de skal have strøm.

721
00:44:41,360 --> 00:44:43,360
Hmm. Interessant.

722
00:44:44,360 --> 00:44:45,680
<font color="

723
00:45:09,360 --> 00:45:10,880
Det skete hurtigt.

724
00:45:10,880 --> 00:45:13,200
Høringen for
Rafaela Vasquez var planlagt

725
00:45:13,200 --> 00:45:14,680
som afviklingskonference,

726
00:45:14,680 --> 00:45:17,400
men det førte hurtigt til en klageaftale.

727
00:45:17,400 --> 00:45:21,840
I juli 2023, efter fem år
af juridisk skænderi,

728
00:45:21,840 --> 00:45:24,840
Rafaela accepterede en klageaftale
<font color="

729
00:45:24,840 --> 00:45:27,640
Aftalen angiver
som du ønsker at erkende skyldig i

730
00:45:27,640 --> 00:45:29,120
forbrydelsen i fare.

731
00:45:29,120 --> 00:45:31,640
Forseelsen er ikke-farlig,
ikke-gentagende.

732
00:45:31,640 --> 00:45:35,760
Er det den forbrydelse, du ønsker
at erkende sig skyldig? Ja.

733
00:45:35,760 --> 00:45:39,680
<font color="
en reduceret afgift - fare -

734
00:45:39,680 --> 00:45:42,720
med den garanti det ville være
sænket til det mindst alvorlige

735
00:45:42,720 --> 00:45:46,080
lovovertrædelseskategori, følgende
tre års prøvetid.

736
00:45:49,080 --> 00:45:51,160
Ah! Hej, hvordan har du det?
Se hvem det er. Hej.

737
00:45:51,160 --> 00:45:54,760
<font color="
Al Morrison....

738
00:45:54,760 --> 00:45:56,720
Hvordan har du det?
..and Marci Kratter.

739
00:45:56,720 --> 00:45:59,120
Så godt at se dig.

740
00:45:59,120 --> 00:46:01,000
Hvorfor tog du denne sag på?

741
00:46:01,000 --> 00:46:03,800
Vores opgave er at kæmpe for
den lille fyr - ingen fornærmelse -

742
00:46:03,800 --> 00:46:06,680
men hun var den lille fyr.

743
00:46:06,680 --> 00:46:09,080
<font color="

744
00:46:09,080 --> 00:46:12,600
jo mere indså vi lige
hvor ensidigt det var.

745
00:46:12,600 --> 00:46:15,520
Hvor tror du det kom fra,
så? Jeg mener, er dette...

746
00:46:15,520 --> 00:46:18,640
Er det politiet,
eller er det fra Uber?

747
00:46:18,640 --> 00:46:20,560
Uber. Virkelig?

748
00:46:20,560 --> 00:46:24,280
<font color="
at gøre det ikke deres skyld.

749
00:46:24,280 --> 00:46:27,240
Og det er David og Goliat. Ja.

750
00:46:27,240 --> 00:46:29,200
Vi har denne enlige person

751
00:46:29,200 --> 00:46:34,720
op mod en milliard-dollar
virksomhed med ubegrænsede ressourcer.

752
00:46:34,720 --> 00:46:37,720
Problemet var, at der
<font color="

753
00:46:37,720 --> 00:46:39,360
disse biler var programmeret

754
00:46:39,360 --> 00:46:41,760
det tog ikke højde for
situationer i den virkelige verden.

755
00:46:41,760 --> 00:46:44,600
Den mest oplagte er,
tingen var ikke programmeret

756
00:46:44,600 --> 00:46:46,440
at håndtere jaywalkers.

757
00:46:46,440 --> 00:46:50,400
For at redde dig selv på en campus,
<font color="

758
00:46:50,400 --> 00:46:52,920
ikke at programmere køretøjer
at håndtere jaywalking

759
00:46:52,920 --> 00:46:54,760
Jeg tror, ​​er højden af ​​uagtsomhed.

760
00:46:54,760 --> 00:46:57,400
Jeg var bange for at gå i retten.

761
00:46:57,400 --> 00:47:01,840
Hvis jeg taber, er det fængselstid,
ingen hvis, ogs eller men.

762
00:47:01,840 --> 00:47:05,080
Og medierne allerede
ødelagde mig derude.

763
00:47:05,080 --> 00:47:07,520
<font color="
af vores sind som advokater,

764
00:47:07,520 --> 00:47:10,960
og helt sikkert vores kunders sind,
at det er eksponeringen.

765
00:47:10,960 --> 00:47:14,240
"Hvad skal der ske med mig
hvis jeg går for retten og taber?"

766
00:47:14,240 --> 00:47:16,640
Men Marci og jeg havde lyst
vi havde en god sag,

767
00:47:16,640 --> 00:47:19,680
<font color="
risikoen var helt hendes.

768
00:47:19,680 --> 00:47:22,480
Jeg skal ikke i retssagen har
ingen refleksion over dem.

769
00:47:22,480 --> 00:47:24,680
Disse to reddede mit liv.

770
00:47:24,680 --> 00:47:27,600
De reddede absolut mit liv.

771
00:47:32,320 --> 00:47:35,760
Ingen kriminelle anklager var
nogensinde anlagt mod Uber.

772
00:47:45,640 --> 00:47:48,920
Rafaela fik handlet
<font color="

773
00:47:48,920 --> 00:47:51,720
og det gik ikke retfærdigt.

774
00:47:53,520 --> 00:47:55,680
Måske kiggede hun på sin telefon.

775
00:47:55,680 --> 00:47:58,160
Måske var hun ikke. Ligesom jeg...

776
00:47:58,160 --> 00:48:00,880
Helt ærligt, jeg ved det ikke,
men jeg også...

777
00:48:00,880 --> 00:48:04,040
Det tror jeg ikke
det er meningen med det her.

778
00:48:04,040 --> 00:48:09,560
<font color="
fik denne enorme virksomhed,

779
00:48:09,560 --> 00:48:15,240
et milliardprojekt
som ikke prioriterer

780
00:48:15,240 --> 00:48:18,920
sikkerheden for de mennesker, der er
i bilerne, eller som

781
00:48:18,920 --> 00:48:21,400
offentlighedens medlemmer
som ikke engang er blevet enige

782
00:48:21,400 --> 00:48:23,840
<font color="

783
00:48:23,840 --> 00:48:29,440
Det er ikke nok at sige, at alle
ansvaret ligger hos

784
00:48:29,440 --> 00:48:31,120
den person, der sad i bilen.

785
00:48:32,280 --> 00:48:35,360
Det er ikke nok.
Det er ikke nok for mig.

786
00:48:47,160 --> 00:48:51,440
Tilbage i Miami, Dillon og Naibel's
familie bragte Tesla i retten

787
00:48:51,440 --> 00:48:55,080
<font color="
der havde dræbt Naibel.

788
00:48:55,080 --> 00:48:59,400
Dejligt at møde dig. Jeg er Hannah. Adam.
Dejligt at se dig. Dejligt at møde dig.

789
00:48:59,400 --> 00:49:01,600
Hvad sker der, kammerat?

790
00:48:59,400 --> 00:49:01,600
HUN KLIKER

791
00:49:03,320 --> 00:49:05,280
Dillons advokat, Adam Boumel,

792
00:49:05,280 --> 00:49:08,040
<font color="

793
00:49:08,040 --> 00:49:11,440
Dette er en slags situation
hvor der overhovedet ikke er præcedens.

794
00:49:11,440 --> 00:49:14,840
Gør det det ret svært
at bygge en retssag, når du

795
00:49:14,840 --> 00:49:17,680
Jeg ved det ikke, smed en ny vej?
Yderst. Ja?

796
00:49:17,680 --> 00:49:19,680
<font color="
fra starten.

797
00:49:19,680 --> 00:49:21,960
Dette skaber loven.

798
00:49:21,960 --> 00:49:25,320
Det er klart fra dag ét,
Teslas holdning var,

799
00:49:25,320 --> 00:49:28,560
dette er 100% førerens skyld.

800
00:49:28,560 --> 00:49:31,680
Sagen er, at det er svært
at løse ansvaret

801
00:49:31,680 --> 00:49:34,640
<font color="
siger, at chaufføren havde

802
00:49:34,640 --> 00:49:37,120
intet ansvar overhovedet.
Nej, selvfølgelig ikke.

803
00:49:37,120 --> 00:49:41,800
Det anerkender vi 100 %
chaufføren havde ansvaret.

804
00:49:41,800 --> 00:49:45,000
Og vores holdning fra dag ét
har været, at dette er en sag

805
00:49:45,000 --> 00:49:46,760
<font color="

806
00:49:46,760 --> 00:49:48,480
Ja, det var chaufføren der var skyld i.

807
00:49:48,480 --> 00:49:52,120
Han var distraheret, det var han
frikoblet fra køreopgaven.

808
00:49:52,120 --> 00:49:53,960
Men så må du spørge dig selv,

809
00:49:53,960 --> 00:49:56,200
hvorfor blev han frigjort fra
køreopgaven?

810
00:49:56,200 --> 00:50:00,760
Og du ved, at Tesla
<font color="

811
00:50:00,760 --> 00:50:05,080
denne tillid til systemet
det var uberettiget.

812
00:50:05,080 --> 00:50:10,040
Han troede, at bilen ville stoppe
eller svinge eller gøre noget

813
00:50:10,040 --> 00:50:12,600
inden man pløjer i
et parkeret køretøj.

814
00:50:12,600 --> 00:50:14,600
Har du data fra
inde i bilen?

815
00:50:14,600 --> 00:50:16,480
<font color="

816
00:50:16,480 --> 00:50:20,240
Så kunne vi endelig få det
data inde fra bilen,

817
00:50:20,240 --> 00:50:24,920
viser, hvad autopilot-computeren
opdagede og behandlede.

818
00:50:26,800 --> 00:50:29,520
Computeren forstod det
bilen kørte for stærkt

819
00:50:29,520 --> 00:50:31,000
mod enden af ​​vejen.

820
00:50:32,160 --> 00:50:34,880
<font color="

821
00:50:34,880 --> 00:50:36,920
Det værdsatte
det blinkende røde lys.

822
00:50:38,120 --> 00:50:40,960
Den satte pris på Dillons parkerede SUV.

823
00:50:43,400 --> 00:50:46,800
Så det identificerede en masse ting,
og det gjorde ingenting.

824
00:50:55,720 --> 00:51:00,080
Bilen vidste, hvad der foregik
foran det,

825
00:51:00,080 --> 00:51:03,800
<font color="
føreren til at stoppe bilen.

826
00:51:03,800 --> 00:51:06,760
Så dette er ikke en sag
af misinformation

827
00:51:06,760 --> 00:51:08,440
inde i bilens system.

828
00:51:08,440 --> 00:51:11,400
Bilen har alle oplysninger
det var nødvendigt i orden

829
00:51:11,400 --> 00:51:13,120
for at undgå sammenstødet.

830
00:51:13,120 --> 00:51:18,600
<font color="
på den måde, som chaufføren troede

831
00:51:18,600 --> 00:51:20,480
den var programmeret til at opføre sig.

832
00:51:20,480 --> 00:51:24,440
Opførte bilen sig som mennesker
forventede og troede det burde,

833
00:51:24,440 --> 00:51:29,600
baseret på Teslas markedsføring
og Elon Musks udtalelser,

834
00:51:29,600 --> 00:51:33,800
i form af hyping
<font color="

835
00:51:33,800 --> 00:51:38,000
Når du tager den baggrund
og du sætter det imod denne sag,

836
00:51:38,000 --> 00:51:42,920
bilen gjorde intet som nogen
troede det ville eller burde.

837
00:51:42,920 --> 00:51:45,840
Så det er det næsten blevet
et tilfælde af, som

838
00:51:45,840 --> 00:51:50,000
fejlannoncering eller f.eks.
<font color="

839
00:51:50,000 --> 00:51:53,480
De gør forbrugerne og
bilister tror på det

840
00:51:53,480 --> 00:51:55,200
bilen er mere dygtig,

841
00:51:55,200 --> 00:51:58,000
skabe falske forventninger
i deres chauffører.

842
00:51:59,480 --> 00:52:02,240
I Uber-krakket,
skylden var lagt

843
00:52:02,240 --> 00:52:04,440
fast på Rafaelas skuldre.

844
00:52:07,400 --> 00:52:11,120
<font color="
første gang selve bilen

845
00:52:11,120 --> 00:52:13,080
ville blive betragtet som skyld?

846
00:52:33,880 --> 00:52:38,560
I aften tvinger en jury i Florida
Tesla skal betale 243 millioner dollars

847
00:52:38,560 --> 00:52:41,520
til ofre i et dødbringende styrt i 2019,

848
00:52:41,520 --> 00:52:45,080
juryen finder fejl
i Teslas selvkørende software

849
00:52:45,080 --> 00:52:46,800
<font color="

850
00:52:46,800 --> 00:52:49,160
Vi kan være stolte over, at vi stod op,

851
00:52:49,160 --> 00:52:53,720
og at vi gjorde alt i
vores magt til at hjælpe med at skinne lys

852
00:52:53,720 --> 00:52:55,120
på hvad der foregår.

853
00:52:57,040 --> 00:53:00,960
Mod alle odds,
Dillon vandt i retten,

854
00:53:00,960 --> 00:53:04,160
tvinger Tesla til at tage
<font color="

855
00:53:04,160 --> 00:53:05,960
for første gang nogensinde -

856
00:53:05,960 --> 00:53:08,560
for et styrt, der involverer
sit autopilotsystem.

857
00:53:12,440 --> 00:53:15,880
Det var en chokerende skelsættende dom

858
00:53:15,880 --> 00:53:19,440
der godt kunne omforme
fremtiden for selvkørende biler.

859
00:53:20,840 --> 00:53:23,920
Da de afsagde dommen,
hvordan var det?

860
00:53:23,920 --> 00:53:26,160
<font color="

861
00:53:26,160 --> 00:53:29,720
Jeg mener, mig og min far,
vi begyndte at kramme hinanden og

862
00:53:29,720 --> 00:53:34,400
du ved, beder...
at vi ville få retfærdighed.

863
00:53:34,400 --> 00:53:36,720
Du ved, fra begyndelsen,
vi vidste det var

864
00:53:36,720 --> 00:53:38,080
en sag med fælles ansvar,

865
00:53:38,080 --> 00:53:42,640
<font color="
Tesla ansvarlig.

866
00:53:42,640 --> 00:53:44,480
Og det er jeg taknemmelig for.

867
00:53:44,480 --> 00:53:48,640
Og det er jeg taknemmelig for folk
hørte alle beviserne,

868
00:53:48,640 --> 00:53:51,680
og så, at Tesla lavede en fejl.

869
00:53:51,680 --> 00:53:54,280
Jeg får virkelig indtrykket
at dette aldrig har været

870
00:53:54,280 --> 00:53:55,800
<font color="

871
00:53:55,800 --> 00:53:59,840
Det var vigtigere for os
at skinne lys,

872
00:53:59,840 --> 00:54:04,040
og for at vise verden det
denne teknologi er ikke sikker.

873
00:54:05,960 --> 00:54:10,280
Folk vil komme til mig og
du ved, sig mig tillykke.

874
00:54:10,280 --> 00:54:14,400
Men jeg har ikke lyst
<font color="

875
00:54:14,400 --> 00:54:17,600
Som... Du går ikke væk
fra dette en vinder.

876
00:54:17,600 --> 00:54:23,520
Jeg vil sige det er mere bare...
retfærdighed blev udtjent. Ja.

877
00:54:26,160 --> 00:54:28,560
Tesla planlægger at anke dommen.

878
00:54:43,760 --> 00:54:46,480
I mellemtiden, i Storbritannien,

879
00:54:46,480 --> 00:54:50,080
<font color="
deres selvkørende biler

880
00:54:50,080 --> 00:54:51,880
i London senere i år.

881
00:54:54,480 --> 00:54:57,200
Det føles som meget mere
høje indsatser end det gjorde

882
00:54:57,200 --> 00:54:58,600
da jeg var i Phoenix.

883
00:55:00,240 --> 00:55:02,240
Jeg mener, det her er lidt
vildt for mig, ikke?

884
00:55:02,240 --> 00:55:04,680
<font color="
i 20 år,

885
00:55:04,680 --> 00:55:07,880
og vi kører i en førerløs
bil ned ad Camden High Street.

886
00:55:07,880 --> 00:55:10,000
DE GRNER

887
00:55:07,880 --> 00:55:10,000
Det her er ligesom...

888
00:55:10,000 --> 00:55:12,720
Det er helt ærligt noget, jeg troede
var meget længere ude i fremtiden.

889
00:55:12,720 --> 00:55:14,200
Det bliver aldrig gammelt.

890
00:55:14,200 --> 00:55:18,760
<font color="
at AI'en i førerløse biler

891
00:55:18,760 --> 00:55:22,280
er kommet med stormskridt
i de seneste par år.

892
00:55:22,280 --> 00:55:24,800
Og det er interessant.
Denne persons kropssprog var

893
00:55:24,800 --> 00:55:27,200
på en måde at vende baglæns
og fremad væk fra krydset.

894
00:55:27,200 --> 00:55:28,680
<font color="

895
00:55:28,680 --> 00:55:31,280
Bilen har ændret sig
sit sind et par gange.

896
00:55:31,280 --> 00:55:33,320
Det så personen vende deres
krop frem og tilbage.

897
00:55:33,320 --> 00:55:36,560
AI'en er blevet ret god
ved at lære den slags hensigter.

898
00:55:36,560 --> 00:55:39,880
Så det er ligesom super,
<font color="

899
00:55:39,880 --> 00:55:43,200
Det er en helt anden
erfaring fra fartpilot.

900
00:55:43,200 --> 00:55:45,240
Har jeg lige underskåret
dit produkt der?

901
00:55:45,240 --> 00:55:49,240
Du sammenligner en diskette
med en kvantecomputer.

902
00:55:51,920 --> 00:55:54,840
Tænk på AI som
<font color="

903
00:55:54,840 --> 00:55:58,960
Når du tænker på hjulet,
lommeregneren, computeren -

904
00:55:58,960 --> 00:56:00,720
forskellige værktøjer, der som menneskehed,

905
00:56:00,720 --> 00:56:03,560
vi har opfundet for at skubbe
fremad samfund... Mm-hm.

906
00:56:03,560 --> 00:56:07,000
..Jeg tror intelligente maskiner
<font color="

907
00:56:13,480 --> 00:56:16,760
Uanset om du kan lide det eller ej,
førerløse biler kommer.

908
00:56:16,760 --> 00:56:19,200
Jeg mener, de er her allerede.

909
00:56:19,200 --> 00:56:21,800
Og jeg synes stadig, der er masser
godt at komme af det.

910
00:56:21,800 --> 00:56:26,640
Men for at komme til dette punkt havde vi det
at gå igennem den svære fase.

911
00:56:26,640 --> 00:56:31,640
<font color="
hvilket, jeg mener, per definition,

912
00:56:31,640 --> 00:56:34,640
læring involverer at begå fejl.

913
00:56:34,640 --> 00:56:37,880
Det er bare, at disse fejl,
du ved, disse dødsfald,

914
00:56:37,880 --> 00:56:39,400
disse liv, der blev ødelagt,

915
00:56:39,400 --> 00:56:42,160
Det tror jeg ikke
de var uundgåelige.

916
00:56:42,160 --> 00:56:46,640
<font color="
en acceptabel pris at betale

917
00:56:46,640 --> 00:56:49,120
for en ny teknologi.

918
00:56:49,120 --> 00:56:51,520
Jeg tror forskellige valg
kunne være lavet.

919
00:56:51,520 --> 00:56:55,080
Jeg tror, ​​der var forskellige måder
at balancere udrulningen af

920
00:56:55,080 --> 00:56:58,440
det nye produkt med
<font color="

921
00:56:58,440 --> 00:57:02,480
Og det håber jeg nu bare
dette er erfaringer fra fortiden,

922
00:57:02,480 --> 00:57:06,400
du ved, jeg håber, at den stejleste
del af denne indlæringskurve

923
00:57:06,400 --> 00:57:08,080
er nu bag os.

924
00:57:53,280 --> 00:57:55,440
SIRENER JAGER

925
00:57:55,440 --> 00:57:58,280
Den administrerende direktør for en
<font color="

926
00:57:58,280 --> 00:58:01,920
sygeforsikringsselskaber har været
skudt og dræbt i New York.

927
00:58:01,920 --> 00:58:05,680
Den formodede morder har været
identificeret som Luigi Mangione.

928
00:58:05,680 --> 00:58:09,840
Den mistænkte havde noget at sige
om forsikringsbranchen.

929
00:58:09,840 --> 00:58:13,440
Forsikringsselskaberne er afhængige
<font color="

930
00:58:13,440 --> 00:58:15,200
at nægte patientbehandling.

931
00:58:15,200 --> 00:58:16,960
Stop benægtelser med AI!

932
00:58:16,960 --> 00:58:19,600
ALLE: Hvor mange mennesker skal dø?

933
00:58:19,600 --> 00:58:22,440
Vreden og ked af det er ægte.

934
00:58:22,440 --> 00:58:24,400
ALLE: Sundhedspleje er en menneskeret!

935
00:58:26,240 --> 00:58:32,040
For at finde ud af mere om AI og hvordan det
<font color="

936
00:58:36,360 --> 00:58:39,120
..eller scan QR-koden på
skærmen nu.


